導讀:神經網絡是強大的東西,但需要大量的能量。麻省理工學院的工程師現在開發了一種新型芯片,可以將神經網絡的功耗降低95%,從而可以讓它們在電池供電的移動設備上運行。智能手機正在
發表日期:2020-07-04
文章編輯:興田科技
瀏覽次數:7719
標簽:
神經網絡是強大的東西,但需要大量的能量。麻省理工學院的工程師現在開發了一種新型芯片,可以將神經網絡的功耗降低95%,從而可以讓它們在電池供電的移動設備上運行。
智能手機正在變得真正聰明,提供更多的人工智能服務,如數字助理和實時翻譯。但通常情況下,處理這些服務數據的神經網絡都在云計算,智能手機的數據來回傳送。
這并不理想,因為它需要大量的通信帶寬,并且意味著潛在的敏感數據正在被傳輸并存儲在用戶控制之外的服務器上。但是,GpU神經網絡運行需要巨大能量,這使得在有限的電池電量下運行的設備中實現它們是不切實際的。
麻省理工學院的工程師現在設計了一款芯片,通過大幅減少在芯片內存和處理器之間來回傳輸數據的需求,可以將功耗降低高達95%。
神經網絡由成千上萬層互相連接的人造神經元組成。每個神經元從它下面的層中的多個神經元接收輸入,并且如果組合的輸入通過某個閾值,則它將輸出發送到其上的多個神經元。神經元之間連接的強度由訓練期間設定的權重決定。
這意味著對于每個神經元,芯片必須檢索特定連接的輸入數據以及來自存儲器的連接權重,將它們相乘,存儲結果,然后為每個輸入重復該過程。這需要大量的數據移動,耗費大量的能源。
新的MIT芯片消除了這種情況,而是使用模擬電路在存儲器內并行計算所有輸入。這大大減少了需要推動的數據量,并節省了大量的能源。
該方法要求連接的權重是二進制的,而不是一個范圍的值,但以前的理論工作表明這不會顯著影響準確性,研究人員發現該芯片的結果一般在傳統的非結果的2%到3%運行在標準計算機上的二進制神經網絡。
這并不是研究人員首次創建能夠減少神經網絡功耗的芯片,但這是該方法首次用于運行強大的基于圖像的AI應用的卷積神經網絡。
IBM的人工智能副總裁Dario Gil在一份聲明中表示,“結果顯示,能量有效實現與存儲陣列卷積操作的令人印象深刻的規格”。
“它肯定會為將來在物聯網(物聯網)中應用更復雜的卷積神經網絡進行圖像和視頻分類開辟可能性。”
不過,這不僅僅是研究小組的工作。將智能手機,家用電器和各種物聯網設備等智能手機智能化的渴望正在推動硅谷的誰將成為低功耗AI芯片。
蘋果公司已經將其神經引擎整合到iphone X中,為面部識別技術提供動力,亞馬遜傳聞將為下一代Echo數字助理開發自己的定制AI芯片。
大芯片公司也越來越傾向于支持像機器學習這樣的先進功能,這迫使他們使他們的設備變得更節能。今年早些時候,ARM發布了兩款新芯片:Arm Machine Learning處理器,針對從平移到面部識別的一般AI任務,以及用于檢測圖像中的臉部等物體的手臂對象檢測處理器。
高通公司最新的移動芯片Snapdragon 845采用GpU,專注于人工智能。該公司還發布了針對無人機,機器人和工業設備的Snapdragon 820E。
更進一步,IBM和英特爾正在開發神經晶體芯片,其架構受人類大腦和其令人難以置信的能源效率的啟發。這在理論上可以讓IBM的TrueNorth和Intel的Loihi在傳統芯片的一小部分功率上運行強大的機器學習,盡管在現階段它們仍然是高度實驗性的。
讓這些芯片運行神經網絡與在云服務中發現的神經網絡一樣強大,而不會快速燒毀電池,這將是一個巨大的挑戰。但是按照目前的創新步伐,看起來好像不會太長,然后才會在口袋里包裝一些嚴肅的AI功能。
上一篇:
暫無信息更多新聞
2023
云浮網絡推廣是指利用互聯網渠道來促進產品或服務的宣傳和銷售,以達到擴大企業影響力的目的。它可以通過多種方式來實現,包括搜索引擎優化(SEO)、社交媒體營銷、內容營銷等。
View details
2020
神經網絡是強大的東西,但需要大量的能量。麻省理工學院的工程師現在開發了一種新型芯片,可以將神經網絡的功耗降低95%,從而可以讓它們在電池供電的移動設備上運行。智能手機正在
View details